Trước đây là một làng, Sai Mun đã được nâng thành tambon và năm 1968 được nâng thành khet sukhaphiban.[1]

Sau khi Yasothon được tách khỏi Ubon năm 1972, ngày 15 tháng 5 năm 1975, Sai Mun được lập thành một tiểu huyện (king amphoe), lấy 4 tambon từ huyện Mueang Yasothon: Sai Mun, Du Lat, Dong Mafai và Na Wiang.[2]

Năm 1978, tambon Phai được chuyển từ huyện Kut Chum sang Sai Mun.[3]

Ngày 26 tháng 7 năm 1984, tiểu huyện được nâng lên thành huyện,[4].